Урок 5 знаменует ключевой поворот в курсе COMP5511. Мы отходим от детерминированной логики классических вычислений и контролируемой определённости ранних моделей классификации и переходим к вероятностной сути генеративного ИИ. В этом занятии мы разберём, почему современные модели ИИ выдают не «факты», а распределения вероятностей, раскрывая механизмы, которые позволяют большим языковым моделям писать стихи, а диффузионным моделям — создавать изображения из шума.

1. Смена парадигмы: от логики к вероятности

• За пределами ЕСЛИ-ТО: переход от жёстких правил к гибким статистическим вероятностям.
• Конец определённости: понимание того, почему результаты генеративного ИИ недетерминированы по своей природе.
• Вероятность как инструмент: как «эпоха генеративного ИИ» рассматривает неопределённость как преимущество для творчества, а не как ошибку, требующую исправления.

2. Вероятностные двигатели творчества

Генеративный ИИ опирается на семплирование из многомерных вероятностных пространств. Генерируя текст или изображения, модель преодолевает неопределённость, чтобы создавать новое:

• Большие языковые модели (LLM): предсказание следующего токена не как единственного варианта, а как распределения возможностей.
• Диффузионные модели: искусство восстановления порядка из хаотического гауссова шума.
• Процесс семплирования: как случайность используется для предотвращения повторяющихся и «роботизированных» результатов.

3. Агенты в непредсказуемых мирах

Автономные агенты должны действовать в «Открытых мирах», где каждое действие несёт в себе долю неизвестного риска и вознаграждения.